John Grisham, sinh ra tại Jonesboro, Arkansas, là người con thứ hai trong số năm anh chị em của bà Wanda Skidmore Grisham và ông John Grisham.[4] Cha của ông là một công nhân xây dựng và một nông dân trồng bông, còn mẹ ông là nội trợ.[9] Khi Grisham lên bốn, gia đình ông định cư tại Southaven, quận DeSoto, Mississippi.[4] Hồi nhỏ ông có ước muốn trở thành một cầu thủ bóng chày.[8]Mặc dù cha mẹ của Grisham không được học hành đầy đủ, mẹ ông vẫn khuyến khích con trai bà đọc sách và chuẩn bị để thi vào cao đẳng.[2] Ông gợi lại những kỉ niệm thơ ấu của mình trong cuốn A Painted House.[4]

Grisham vào học tại Cao đẳng Cộng đồng Tây Bắc Mississippi ở Senatobia, Mississippi và sau đó vào trường Đại học Bang Delta ở Cleveland.[4] Grisham phải thay ba trường đại học mới có thể hoàn thành một tấm bằng.[2]Ông tốt nghiệp Đại học Bang Mississippi năm 1977 với tấm bằng cử nhân khoa học ngành kế toán. Sau đó ông lại tiếp tục vào trường Viện luật Đại học Mississippi để trở thành luật sư về thuế, nhưng sau đó ông lại hướng sự đam mê sang lĩnh vực tranh chấp dân sự. Ông tốt nghiệp năm 1981 với tấm bằng tiến sĩ luật.[4]